Madeleine: Learning Involuntary Recall for Conversational Memory from Simulated Lives
Madeleine：用模拟生活轨迹学习对话记忆的联想召回
🧭 Agent 长期记忆 · 联想检索 ★ 深度解读
Nanyang Technological University
用 LLM 离线模拟生活轨迹训练 query 侧 LoRA，零 LLM 在线实现对话记忆联想召回，插入 HyperMem 后 LoCoMo-Plus 达 66.6
📌 工作参考价值（4 点）
- 把 LLM 重推理离线蒸馏进 query encoder：业务中的对话/用户记忆召回若依赖 LLM 改写、图谱构建或读取时推理，可改为离线用 LLM 生成“用户状态变化/偏好迁移”监督样本，训练轻量 query-side LoRA；在线只算一次向量，省掉数百到上千次 LLM 调用和大量上下文，适合高 QPS 的推荐/客服场景。
- 复用 frozen 向量库，即插即用：新分数 s(q,m)=cos(E(q),E(m))+cos(Eθ(q),E(m)) 等价于用单个 query 向量 E(q)+Eθ(q) 检索；不改记忆索引、不写入 LLM，迁移成本极低。可直接给现有向量召回的 query tower 加 residual adapter，保留内容相似度同时补学隐性关联，类似搜索/推荐 query 侧增强。
- 训练数据生成与负采样细节：用 LLM 模拟“生活轨迹”产生 cue-trigger 对，要求 trigger 不得提及或暗示 cue 主题；用 same-source negatives + near-duplicate masking，成本仅几美元/3万条。电商可模拟“用户长期状态→后续需求”或“偏好变化”生成训练对，绕过真实数据稀缺与标注困难。
- 不要对隐性关联用 cross-encoder reranker：论文中 reranker 反而显著掉点（52.4→40.9/31.9），因为 cue 与 trigger 表面不匹配、跨编码器按匹配度打分天然不利。关联性召回的关键应在召回层习得，而非精排层再判断语义匹配。